หลังสงคราม เกรชโคได้เป็นผู้บัญชาการกองทัพในเคียฟจนถึงปี พ.ศ. 2496 ระหว่าง พ.ศ. 2496 และ พ.ศ. 2500 เกรชโค เป็นผู้บัญชาการทหารสูงสุดของกองกำลังโซเวียตใน เยอรมนีตะวันออก ในวันที่ 11 มีนาคม พ.ศ. 2498 เกรชโค พร้อมกับเพื่อนร่วมงานระดับสูงอีกห้าทุกคนได้ถูกรับเลือกในความสามารถในช่วงสงครามโลกครั้งที่สองในรับการเลื่อนยศจอมพลแห่งสหภาพโซเวียต ในช่วงปี พ.ศ. 2500-2503, เกรชโค ได้เป็นผู้บัญชาการทหารสูงสุดของกองทัพบกและ พ.ศ. 2503-2510 เขาเป็นผู้บัญชาการทหารสูงสุดของกองกำลัง สนธิสัญญาวอร์ซอ [2]

วันที่ 12 เมษายน พ.ศ. 2510 เขาได้ทำรัฐมนตรีว่าการกระทรวงกลาโหม หลังจากการเสียชีวิตจอมพล โรดีออน มาลีนอฟสกี ในช่วงปี พ.ศ. 2513-2519 ที่ เกรชโค ได้ทำหน้าที่เป็นประธานของคณะกรรมการบรรณาธิการจัดบันทึกประวัติศาสตร์โซเวียตในของสงครามโลกครั้งที่สองอย่างเป็นทางการเขาเสียชีวิตในปี พ.ศ. 2519 เถ้าของเขาถูกฝังอยู่ในกำแพงเครมลิน